Robust Soft Skill Adaptation via Behavioral Localization in Tool-Using Agents
工具型智能体中基于行为定位的鲁棒软技能适配
🧭 Tool-Using Agent 软技能行为定位适配 ★ 深度解读
University of Surrey
提出 Behavioral Localization,定位技能真正改变行为的少量轨迹位置来训练短 soft prompt,减少漂移并提升任务成功率
📌 工作参考价值(4 点)
- 如果你的电商导购/搜索/客服 Agent 用长 system skill 控制工具调用,可尝试从成功轨迹中选 top-k 关键 token 蒸馏成短 soft prompt;相比全轨迹蒸馏,只学行为变化最大的位置,能减少对基座已有能力的破坏。
- 定位分数 = logprob gain × JS divergence,可迁移到 prompt/example 剪枝:保留那些既提高正确答案概率、又明显改变 next-token 分布的轨迹节点或 few-shot 示例,删掉基座模型本来就会的冗余内容,降低上下文与 KV cache 成本。
- 训练时在未选中位置用 no-skill 分布做 KL anchor,这种「选择性正则」适合在线更新推荐文案生成、搜索 query 改写等 Agent 策略时使用,避免更新引入不必要行为漂移。
- 业务中不一定要替换成 soft prompt;top 10% 关键位置可作为高价值数据,用于构造短 prompt、压缩演示示例,或生成局部偏好对做后续对齐。